More Memory, Worse Agents: Error Reproduction and Anti-Persistence in LLM Agents
更多记忆更差?抗持久化记忆设计抑制 LLM Agent 错误复现
🧭 LLM Agent 记忆与自改进机制 ★ 深度解读
Indiana University · Tencent HY
提出 Anti-Persistence 记忆:只存轨迹和结果,抽象按需合成并丢弃,抑制错误复现,提升成功率并降低成本
📌 工作参考价值(4 点)
- 在电商/推荐 Agent 的记忆设计中,优先持久化原始交互轨迹和结果日志,而非规则、总结或技能等抽象内容;抽象只在当前任务中按需合成,使用后立即丢弃,防止错误抽象跨任务固化。
- 可借鉴其自适应模式选择:定义多种经验使用模式(直接复用轨迹、模仿成功行为、提炼任务策略、生成纠错规则),用轻量 contextual bandit 结合任务相似度、时间衰减和 UCB 探索项来选,比固定策略更鲁棒。
- 奖励信号中加入成本惩罚 r = clip(y - λκ, -1, 1),λ 设小值(如 0.05)能鼓励选择性合成,在保持成功率的同时控制 LLM 调用量,适合线上成本敏感场景。
- 注意“错误复现”路径:即使删除错误抽象,其影响仍可能通过被影响的轨迹进入后续合成;评估记忆系统时应追踪历史暴露来源,而非只做简单剪枝或屏蔽。